Skip to main content

AI 模型

路徑:【後台管理】⇒【AI平台】⇒【AI 模型】

1. 功能簡介


【AI 模型】 是整個 AI 平台的基石。AI助理AI技能AI知識庫 等功能在運作時,都會回頭呼叫這裡設定好的模型進行語言處理、語意檢索或圖像理解。

系統支援接入多家 AI 雲端平台,也支援接入本地部署的模型。依用途分為三種模型類型:

模型類型用途
大語言模型處理純文字的對話與生成,是助理回覆與提示詞運作的核心。
向量模型將文字轉換為向量,供 AI知識庫進行語意檢索。
多模態模型可同時處理文字與圖像等多種輸入,供圖片理解類的技能使用。

每一種類型都可以指定一個 預設模型。未特別指定模型的功能,就會使用該類型的預設模型。

進入 【AI 模型】 後,畫面上方為 模型名稱搜尋框 與右上角的 『新增模型』;下方以卡片列出所有已接入的模型。

每張卡片包含:

  • 供應商圖示模型名稱
  • 狀態標籤:例如 啟用
  • 預設角色標籤:例如 預設語言模型預設多模態模型預設向量模型
  • 模型說明:顯示 Model Name、模型類型與計價資訊,例如 openai/gpt-5.6-terra 大語言模型 ($2.50 / $15per 1M)
  • 右上角的 『設定』

AI 模型主畫面

AI 模型主畫面

note

同一個模型可以依不同用途分別接入。例如同一組 openai/gpt-5.6-terra 可以建立兩張卡片,一張設為 大語言模型、另一張設為 多模態模型,兩者各自獨立啟用與設定。

2. 新增模型


點擊右上角的 『新增模型』,畫面右側會展開 【新增模型】 面板。

新增模型按鈕

新增模型按鈕

面板由上而下依序為 [基本資訊][存取設定],下方為 『偵測』,右下角固定為 『儲存並啟用』

📌 基本資訊

欄位說明
模型名稱(必填)模型在卡片與選單中顯示的名稱。
模型描述補充說明此模型的用途或計價,方便後續辨識。
模型供應商(必填)由下拉選單選擇模型的來源平台。
模型類型(必填)選擇 『大語言模型』『向量模型』『多模態模型』

選定模型類型後,下方會出現 「作為預設的○○模型」 核取方塊,勾選即代表把這個模型設為該類型的預設模型。

目前可選的 模型供應商 包含:

  • 火山引擎方舟大模型服務平台
  • 騰訊大模型知識引擎
  • Ollama 本地部署
  • 通義千問
  • 千帆大模型
  • DeepSeek 開放平台
  • OpenAI
  • vLLM

新增模型-基本資訊

新增模型-基本資訊

📌 存取設定

[存取設定] 會在選定 模型供應商模型類型 後才出現於 [基本資訊] 下方,欄位也會依所選的供應商與類型而不同,常見欄位如下:

欄位說明
API Key供應商核發的金鑰,輸入後以圓點遮蔽,可點擊右側的眼睛圖示切換顯示或隱藏。
Model Name供應商所定義的模型代號,例如 openai/text-embedding-3-small
Endpoint模型服務的位址,例如 https://<供應商網域>/api/v1/
Dimensions向量的維度,例如 1536。僅 向量模型 需要設定。
自訂請求頭以開關控制是否額外帶入自訂的 HTTP 標頭。

填寫完成後,點擊 『偵測』 確認模型是否可正常呼叫,確認可用後再點擊右下角的 『儲存並啟用』

note

Model NameEndpointAPI Key 的取得方式各家供應商不同,請至該供應商的控制台查詢。若使用 Ollama 本地部署,通常只需填寫 Endpoint 與 Model Name,不需要 API Key。

warning

API Key 屬於機密資訊,外洩可能造成費用損失。建議由系統管理員統一保管與設定,並定期至供應商後台檢視用量。

3. 編輯與停用模型


點擊模型卡片右上角的 『設定』,畫面右側會展開 【編輯模型】 面板,並帶入目前的設定。

  • 面板標題旁的 開關 用來 啟用/停用 這個模型。
  • [基本資訊][存取設定] 的欄位預設為 唯讀,需點擊右下角的 『編輯』 才能修改。
  • 模型供應商模型類型 建立後即固定,無法變更;「作為預設的○○模型」 核取方塊會顯示目前是否被設為該類型的預設模型。
  • API Key 以遮蔽方式顯示,可點擊右側的眼睛圖示切換顯示或隱藏。
  • 下方同樣提供 『偵測』,修改連線資訊後可再次確認模型是否可正常呼叫。

編輯模型面板

編輯模型面板

warning

停用或修改模型前,請先確認沒有 AI助理、AI技能或 AI知識庫正在使用;尤其是被設為 預設模型 的項目,一旦停用,所有未指定模型的功能都會失效。